Повышение уровня! Теперь ты детектив по искусственному интеллекту!Не совсем так! Проверь подсказки еще раз.Метка доверия обновлена ... Это ... ? ... Или ...
Если ИИ обучается на данных, в которых отсутствуют определенные группы людей, то каким будет ИИ?
Правильно! ИИ — это зеркало. Если данные несправедливы или содержат недостающую информацию, решения ИИ будут предвзятыми.
Как называется ситуация, когда ИИ придумывает ложный факт, который звучит правдоподобно?
Точно! Это называется галлюцинацией — ИИ «мечтает» о ответах, основываясь на шаблонах слов.
Знает ли ИИ всегда «правду»?
Точно! ИИ ищет шаблоны и вероятности, что не всегда совпадает с истиной.
Почему ИИ для просмотра резюме может игнорировать талантливых людей из разных групп?
Правильно! Если обучающие данные ограничены, ИИ математически заключает, что «разное» означает «не соответствующий требованиям».
Что вы должны сделать, если ИИ предоставляет вам факты для школьного проекта?
Отлично! Всегда проверяйте информацию от ИИ, потому что он иногда уверенно «галлюцинирует» ложные подробности.
ИИ сейчас ошибается случайно, но могут ли люди позже намеренно использовать ИИ, чтобы обмануть других?
Да! Как мы увидим дальше, понимание ошибок ИИ помогает нам подготовиться к миру преднамеренных обманов.
1
Предвзятость ИИ и галлюцинации
EvoClass-AI004Lecture 10
0
🤖 Бип-боп! Я ваш гид по этике. Выберите загадку, которую нужно разгадать: предвзятость данных или галлюцинации ИИ!
Команда Пай-ботаРАЗГОВОР
Бип! Привет, детектив! Сегодня мы учимся тому, что ИИ не всегда прав. Иногда он копирует наши ошибки, а иногда просто придумывает всё!
Прогресс темы0%
Представьте ИИ как зеркало. Если показывать ему только фотографии кошек, он может подумать, что собаки не существуют! Если наши данные содержат старые предубеждения, ИИ будет их повторять. Как робот-работодатель, выбирающий только одного типа человека, потому что именно такой видел в прошлом. Это называется «алгоритмическая предвзятость».
1
Подтема 1
Зеркало (предвзятость)
ИИ отражает данные, которые мы ему даём — даже несправедливые части.
В отличие от вас, ИИ не любит говорить «Я не знаю». Он предсказывает следующее слово, как гигантская игра в «Мад Лайбы». Иногда он «галлюцинирует» и придумывает факты, которые звучат правдоподобно, но полностью вымышлены! Он просто следует шаблону, не проверяя истину.
2
Подтема 2
Сонный (галлюцинация)
Когда ИИ звучит чрезвычайно уверенно, но совершенно неверно.
Даже самые умные ИИ в мире всё ещё допускают ошибки. Всегда проверяйте свои факты с надёжным источником!
Знаете ли вы?
Даже самые умные ИИ в мире всё ещё допускают ошибки. Всегда проверяйте свои факты с надёжным источником!
Загрузка...
⭐⭐⭐

Миссия завершена!

Вы — детектив по искусственному интеллекту!